Quyền lực mới của người Hung Nô là trùng hợp với chính sách xoa dịu của Hán Quang Vũ Đế (5 TCN-57, cầm quyền từ năm 25 đến năm 57). Khi ở đỉnh cao nhất của quyền lực, Hô Đô Nhi Thi thậm chí còn so sánh mình với ông tổ nổi tiếng là Mặc Đốn. Tuy nhiên, do chủ nghĩa cục bộ địa phương lại gia tăng giữa những người Hung Nô nên Hô Đô Nhi Thi đã không bao giờ có thể thiết lập uy quyền ở mức không bị tranh cãi. Khi ông chỉ định con trai mình làm người kế vị (trái với quy tắc truyền ngôi cho anh em do Hô Hàn Tà đề ra) thì Bỉ, khi ấy là hữu hiền vương, đã từ chối tham dự cuộc họp mặt hàng năm tại cung điện của thiền vu.

Là con trai lớn của thiền vu trước đó, Bỉ có quyền đòi hỏi sự kế vị. Năm 48, hai năm sau khi con trai của Hô Đô Nhi Thi là Bồ Nô lên ngai vàng, tám bộ lạc Hung Nô trong khu vực căn cứ của Bỉ tại miền nam, với lực lượng khoảng 40.000 đến 50.000 người, đã tôn Bỉ làm thiền vu của họ. Trong suốt thời Đông Hán, hai nhóm này được gọi là nam Hung Nô và bắc Hung Nô.

Bị người Hung Nô miền bắc chèn ép mạnh và bị tổn thất bởi thiên tai, Bỉ đã đưa người Hung Nô miền nam trở lại quan hệ triều cống với Trung Quốc của nhà Hán vào năm 50. Hệ thống triều cống đã được thắt chặt đáng kể để giữ người Hung Nô miền nam dưới sự giám sát của nhà Hán. Thiền vu được lệnh phải đặt kinh đô tại huyện Meiji của quận Tây Hà. Người Hung Nô miền nam đã được tái định cư tại 8 quận vùng biên giới. Cùng thời gian đó, một lượng lớn người Hán đã bị ép buộc phải di cư tới các quận này, tại đây các khu định cư hỗn tạp bắt đầu xuất hiện.

Về mặt kinh tế, người Hung Nô miền nam gần như dựa hoàn toàn vào sự hỗ trợ của nhà Hán. Các quan hệ căng thẳng là hiển nhiên giữa những người Hán định cư và những người có cuộc sống du cư. Vì thế, năm 94 thiền vu An Quốc (安國) đã hợp nhất các lực lượng với người Hung Nô mới bị nô dịch hóa từ phía bắc để bắt đầu một cuộc nổi dậy lớn chống lại nhà Hán.

Vào cuối thời Đông Hán, người Hung Nô miền nam đã tham gia vào nhiều cuộc nổi dậy khi đó đang gây ra nhiều phiền toái cho nhà Hán. Năm 188, thiền vu Khương Cừ (羌渠) bị một số thần dân của mình ám sát vì đã đồng ý gửi quân đội đến giúp nhà Hán dẹp loạn tại Hà Bắc – nhiều người Hung Nô e ngại rằng điều này có thể trở thành tiền lệ cho sự phục vụ quân đội không có điểm kết thúc cho nhà Hán. Con trai của thiền vu bị sát hại này lên kế vị, nhưng ông này sau đó cũng đã bị những người nổi loạn này lật đổ vào năm 189. Ông ta chạy tới Lạc Dương để tìm kiếm sự trợ giúp của nhà Hán, nhưng vào thời gian đó thì triều đình nhà Hán cũng đang rối loạn do mâu thuẫn giữa các phe cánh của Hà Tiến và các hoạn quan, cũng như sau đó là sự chuyên quyền của Đổng Trác. Thiền vu này tên là Ư Phù La (於扶羅), với tước hiệu là Đặc Chí Thi Trục Hầu (特至尸逐侯), đã không còn sự lựa chọn nào khác ngoài việc cùng những người đi theo ở lại Bình Dương, một thành phố thuộc Sơn Tây, Trung Quốc ngày nay. Năm 195, ông ta chết và người em ông ta tên là Hô Trù Tuyền (呼廚泉) đã kế nghiệp.

Năm 216, Tào Tháo đã cầm giữ Hô Trù Tuyền tại Nghiệp Thành (鄴城) và chia những người đi theo ông ta tới Sơn Tây thành 5 bộ: tả, hữu, nam, bắc và trung. Điều này nhằm ngăn cản những người Hung Nô lưu vong tại Sơn Tây dính líu vào các cuộc nổi loạn, cũng như cho phép Tào Tháo sử dụng người Hung Nô làm các lực lượng bổ trợ cho đội quân kỵ binh của mình. Cuối cùng, tầng lớp qu‎ý tộc Hung Nô tại Sơn Tây đã đổi họ của mình từ Loan Thì (欒提) thành Lưu vì các l‎ý do uy tín và thanh thế, khi họ cho rằng mình có quan hệ họ hàng với hoàng tộc nhà Hán, thông qua chính sách liên minh hôn nhân từ thời trước.